scrapy中向spider传入一个到多个参数

如果希望spider定向爬取,就需要给spider传入参数

首先在spider类中定义初始化函数

def __init__(self, start_urls=None, number=5,  *args, **kwargs):
    super(DouBanMovieSituationSpider, self).__init__(*args, **kwargs)
    self.start_urls = start_urls
    self.number = int(commentNum)

调用时使用

scrapy crawl xxxSpider -a start_urls=xxxxxx -a number=number

想传多少个参数,就在参数前加多少个 -a……

有同学是使用pycharm里面的调用python语句来模拟执行cmd的,则将python语句改为“

from scrapy.cmdline import execute

execute(['scrapy', 'crawl', 'xxxSpider',"-a","start_urls=xxxx","-a","number=666"])

参考
https://blog.csdn.net/qq_24760381/article/details/80361400

  • 2
    点赞
  • 7
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值